AI не е непосредствена заплаха за съществуването, но са необходими „предпазни спирачки“: Microsoft

Президентът на Microsoft споделя, че не счита, че изкуственият разсъдък съставлява непосредствена опасност за съществуването на човечеството, само че държавните управления и компаниите към момента би трябвало да работят по-бързо, с цел да се оправят с рисковете на технологията посредством използване на това, което той назовава „ защитни спирачки “. 1px " referrerpolicy= " no-referrer-when-downgrade " >

„ Не виждаме никакъв риск през идващите години, през идващото десетилетие, AI по някакъв метод да съставлява някаква екзистенциална опасност за човечеството, само че … дано разгадаем този проблем, преди казусът да се появи, ” сподели Брад Смит в изявление за The Canadian Press. ръководител – сподели, че е значимо проблемите, подбудени от технологията, да бъдат сложени под надзор, тъй че земното кълбо да не се постанова „ непрекъснато да се тревожи и да приказва за това. “

Той счита, че методът за справяне с евентуалните проблеми е посредством защитни спирачки, които биха могли да работят като спешните механизми, вградени в асансьори, учебни рейсове и високоскоростни влакове.

Те би трябвало да бъдат вградени във високорискови AI системи, които управляват сериозна инфраструктура като електрически мрежи, водна система и трафик.

„ Нека се учим от изкуството “, сподели Смит.

„ Всеки филм, в който технологията постанова екзистенциална опасност, приключва по същия метод – хората изключват технологията. (И така) имайте комутатор за включване и изключване, имайте защитна спирачка, уверете се, че остава под човешки надзор. Нека приемем това и да го създадем в този момент. “

Забележките на Смит идват, защото конкуренцията за потребление и нововъведения с AI избухна в софтуерния бранш и отвън него след стартирането на ChatGPT, AI чатбот, предопределен да генерират човешки отговори на текстови подкани.

Microsoft влага милиарди в основателя на ChatGPT, основаната в Сан Франциско OpenAI, и също има своя лична основана на AI технология, Copilot, която оказва помощ на потребителите да основават чернови на наличие, да оферират разнообразни способи за изписване на текст, който са написали, и оказва помощ за основаването на презентации на PowerPoint от документи на Word.

Но мнозина имат дълбоки терзания по отношение на скоростта на напредъка на AI. Например Джефри Хинтън, британско-канадски пионер в дълбокото образование, постоянно именуван „ кръстникът на AI “, сподели, че счита, че технологията може да докара до пристрастия и дискриминация, безработица, ехтене камери, подправени вести, бойни роботи и други опасности.

Няколко държавни управления, в това число канадското, започнаха да основават парапети към AI.

В отчет от 48 страници, оповестен от Microsoft в сряда, Смит сподели, че компанията му поддържа устрема на Канада да контролира AI..

Тези старания включват непринуден кодекс за държание, оповестен през септември, чиито подписали страни – в това число Cohere, OpenText Corp., BlackBerry Ltd. и Telus Corp. – дават обещание, че ще оценят и понижат рисковете от своите основани на AI системи, да ги следят за произшествия и да работят по проблемите, които основават.

Въпреки че кодът има съперници като създателя на Shopify Inc. Тоби Лутке, който го вижда като образец за страната, употребяваща прекалено много „ рефери “, когато има потребност от повече „ строители “, сподели Смит в отчета, че посредством оформянето на кодекс Канада е „ посочила ранно водачество “ и оказва помощ на света да работи към общ набор от споделени правила.

Очаква се доброволният кодекс да бъде последван от идния закон на Канада за изкуствения разсъдък и данните, който ще сътвори нови разпореждания на наказателното право, с цел да забрани „ безразсъдни и злонамерени “ използва на AI, които предизвикват съществени вреди на канадците.

Актът, прочут като Bill C -27, мина първо и второ четене, само че към момента се преглежда в комисия. Отава сподели, че то ще влезе в действие не по-рано от 2025 година

Запитан за какво счита, че държавните управления би трябвало да работят по-бързо с AI, Смит сподели, че светът е изправен пред „ изключителна година “ след стартирането на ChatGPT.

„ Когато споделяме да се движим по-бързо, това почтено казано не е рецензия “, сподели той.

„ Това значи самопризнание за настоящата действителност, в която нововъведенията са се развили с по-бързи темпове от множеството хора чакаха. “

Но той вижда Канада като една от страните, които са най-подготвени да се оправят с темпото на ИИ, защото университетите от дълго време натъртват на технологията, а градове като Монреал, Торонто и Ванкувър са огнища на ИИ иновация.

„ Ако има държавно управление, което съгласно мен има традиция, върху която може да надгради, с цел да одобри нещо сходно, мисля, че това е Канада. Надявам се, че ще бъде първият “, сподели Смит.

„ Няма да е последният, в случай че е първият. “

Но защото AI актът на Канада е изправен пред „ деликатно разискване ”, Смит счита, че Канада би трябвало да обмисли по какъв начин в това време може да одобри спомагателни гаранции.

Например, по време на процеса на възлагане на публични поръчки за високорискови AI системи, той счита, че сътрудниците, търсещи контракти, могат да бъдат принудени да употребяват трети партийни одити, с цел да се удостовери, че те дават отговор на съответните интернационалните стандарти за ИИ.

В отчета Смит също изрази поддръжката си за метод към ИИ, който ще бъде „ създаден и употребен през границите “ и „ подсигурява, че ИИ система, сертифицирана като безвредна в една пълномощия, може също да се квалифицира като безвредна в друга. От Брюксел до Ню Йорк, с цел да отговори на другите условия, които всяка страна може да има.

Международен код ще помогне на разработчиците на AI да удостоверят сигурността на своите системи и да покачат сходството в международен мащаб, тъй като ще могат да употребяват стандарти, които са интернационално контрактувани при.

„ Моделът на непринуден кодекс дава опция на Канада, Европейския съюз, Съединените щати, другите членове на Г-7, както и Индия, Бразилия и Индонезия, да вървят напред дружно на набор от споделени полезности и правила “, сподели той в отчета.

„ Ако можем да работим с другите на доброволна основа, тогава всички ще се движим по-бързо и с по-голямо внимание и фокус. Това не е добра вест единствено за света на технологиите, само че и за целия свят. “